可能会|新和_听叔一句劝，消息队列的水太深，你把握不住！

篇首语：本文由编程笔记#小编为大家整理，主要介绍了听叔一句劝，消息队列的水太深，你把握不住！相关的知识，希望对你有一定的参考价值。

很多人在做架构设计时往往会“过度设计”,简单问题复杂化&＃xff0c;上来就引一堆中间件&＃xff0c;我想大概原因主要有下面两点&＃xff1a;

1. 为了秀&＃xff08;学&＃xff09;技术而架构
   我们常说技术是为业务服务的&＃xff0c;不能为了技术而技术&＃xff0c;为了秀技术引入一堆复杂架构这是要不得的。

2. 考虑问题不全面&＃xff0c;或者说广度不够&＃xff0c;不知道如何简单化
   举个栗子&＃xff0c;假设有一个高并发的用户平台需要处理注册&＃xff08;写&＃xff09;及登录查询&＃xff08;读&＃xff09;功能&＃xff0c;在数据库层做了主从同步。为了解决主从同步延时问题引入了一个Redis&＃xff0c;想实现写主库的时候同时写Redis&＃xff0c;然后读的时候直接读Redis&＃xff0c;这就避免了主从延时同步问题。这就是典型的考虑问题不全面&＃xff0c;这样虽然能解决主从延时问题&＃xff0c;但是又会导致双写事务的产生&＃xff0c;那为什么不直接把主从同步的方式改成强同步复制呢&＃xff0c;这样不是直接保证了一致性吗&＃xff1f;
   那你可能会说改成强同步复制不是会增加响应时间进而影响系统吞吐量吗&＃xff0c;那咱还可以对用户做个分库&＃xff0c;多做几个主从同步出来不就可以了吗&＃xff1f;

诶诶诶&＃xff0c;跑题了&＃xff0c;今天咱不是说消息队列吗&＃xff1f;

哦&＃xff0c;言归正传。今天我们说说消息队列的问题&＃xff0c;希望看完本文大家在引入消息队列的时候先想一想&＃xff0c;是不是一定要引入&＃xff1f;引入消息队列后产生的问题能不能解决&＃xff1f;

消息队列的作用

在微服务开发中我们经常会引入消息中间件实现业务解耦&＃xff0c;执行异步操作&＃xff0c; 现在让我们来看看使用消息中间件的好处和弊端。

首先需要肯定是使用消息组件有很多好处&＃xff0c;其中最核心的三个是&＃xff1a;解耦、异步、削峰。

• 解耦&＃xff1a;客户端只要讲请求发送给特定的通道即可&＃xff0c;不需要感知接收请求实例的情况。
• 异步&＃xff1a;将消息写入消息队列&＃xff0c;非必要的业务逻辑以异步的方式运行&＃xff0c;加快响应速度。
• 削峰&＃xff1a;消息中间件在消息被消费之前一直缓存消息&＃xff0c;消息处理端可以按照自己处理的并发量从消息队列中慢慢处理消息&＃xff0c;不会一瞬间压垮业务。

当然消息中间件并不是银弹&＃xff0c;引入消息机制后也会有如下一些弊端&＃xff1a;

• 潜在的性能瓶颈&＃xff1a;消息代理可能会存在性能瓶颈。幸运的是目前主流的消息中间件都支持高度的横向扩展。
• 潜在的单点故障&＃xff1a;消息代理的高可用性至关重要&＃xff0c;否则系统整体的可靠性将受到影响&＃xff0c;幸运的是大多数消息中间件都是高可用的。
• 额外的操作复杂性&＃xff1a;消息系统是一个必须独立安装、配置和运维的系统组件&＃xff0c;增加了运维的复杂度。

这些弊端我们借助消息中间件本身提供的扩展、高可用能力可以解决&＃xff0c;但是要真正用好消息中间件我们还需要关注可能会遇到的一些设计难题。

消息队列的设计难题

处理并发和顺序消息

在生产环境中为了提高消息处理的能力以及应用程序的吞吐量&＃xff0c;一般会将消费者部署多个实例节点。那么带来的挑战就是如何确保每个消息只被处理一次&＃xff0c;并且是按照他们的发送顺序来处理的。

例如&＃xff1a;假设有3个相同的接收方实例从同一个点对点通道读取消息&＃xff0c;发送方按顺序发布了 Order Created、Order Updated 和 Order Cancelled 这3个事件消息。简单的消息实现可能就会同事讲每个消息给不同的接收方。若由于网络问题导致延迟&＃xff0c;消息可能没有按照他们发出时的顺序被处理&＃xff0c;这将导致奇怪的行为&＃xff0c;服务实例可能在另一个服务器处理 Order Created 消息之前处理 Order Cancelled消息。

Kafka 使用的解决方案是使用分片&＃xff08;分区&＃xff09;通道。整体解决方案分为三个部分&＃xff1a;

1. 一个主题通道由多个分片组成&＃xff0c;每个分片的行为类似一个通道。
2. 发送方在消息头部指定分片键如orderId&＃xff0c;Kafka使用分片键将消息分配给特定的分片。
3. 将接收方的多个实例组合在一起&＃xff0c;并将他们视为相同的逻辑接收方&＃xff08;消费者组&＃xff09;。kafka将每个分片分配给单个接收器&＃xff0c;它在接收方启动和关闭时重新分配分片。

如上图所示&＃xff0c;每个Order事件消息都将orderId作为其分片键。特定订单的每个事件都发布到同一个分片。而且该分片中的消息始终由同一个接收方实例读取&＃xff0c;因此这样就能够保证按顺序处理这些消息。

处理重复消息

引入消息架构必须要解决的另一个挑战是处理重复消息。在理想情况下&＃xff0c;消息代理应该只传递一次消息&＃xff0c;但保证消息有且仅有一次的消息传递的成本通常很高。相反&＃xff0c;很多消息组件承诺至少保证成功传递一次消息。

在正常情况下&＃xff0c;消息组件只会传递一次消息。但是当客户端、网络或消息组件故障可能导致消息被多次传递。假设客户端在处理消息后发送确认消息前&＃xff0c;他的数据库崩溃了&＃xff0c;这时消息组件将再次发送未确认的消息&＃xff0c;在数据库重新启动时向该客户端发送。

处理重复消息有以下两种不同的方法&＃xff1a;

• 编写幂等消息处理程序
• 跟踪消息并丢弃重复项

编写幂等消息处理器

如果应用程序处理消息的逻辑是满足幂等的&＃xff0c;那么重复消息就是无害的。程序的幂等性是指&＃xff0c;即使这个应用被相同输入参数多次重复调用时&＃xff0c;也不会产生额外的效果。例如&＃xff1a;取消一个已经取消的订单&＃xff0c;就是一个幂等性操作。同样&＃xff0c;创建一个已经存在的订单操作也必是这样。满足幂等的消息处理程序可以被放心的执行多次&＃xff0c;只要消息组件在传递消息时保持相同的消息顺序。

但是不幸的是&＃xff0c;应用程序通常不是幂等的。或者你现在正在使用的消息组件在重新传递消息时不会保留排序。重复或无序消息可能会导致错误。在这种情况下&＃xff0c;你需要编写跟踪消息并丢弃重复消息的消息处理程序。

跟踪消息并丢弃重复消息

考虑一个授权消费者信用卡的消息处理程序。它必须为每个订单仅执行一次信用卡授权操作。这段应用程序每次调用时都会产生不同的效果。如果重复消息导致消息处理程序多次执行该逻辑&＃xff0c;则应用程序的行为将不正确。执行此类应用程序逻辑的消息处理程序必须通过检测和丢弃重复消息而让它成为幂等的。

一个简单的解决方案是消息接收方使用 message id 跟踪他已处理的消息并丢弃任何重复项。例如&＃xff0c;在数据库表中存储它消费的每条消息的 message id。

当接收方处理消息时&＃xff0c;它将消息的 message id 作为创建和变更业务实体的事务的一部分记录在数据表里。如上图所示&＃xff0c;接收方将包含message id 的行插入 PROCESSED_MESSAGE表。如果消息是重复的&＃xff0c;则INSERT将失败&＃xff0c;接收方可以选择丢弃该消息。

另一个解决方案是消息处理程序在应用程序表&＃xff0c;而不是专门表中记录 message id。当时用具有受限事务模型的NoSQL数据库时&＃xff0c;此方法特别有用&＃xff0c;因为 NoSQL数据库通常不支持将针对两个表的更新作为数据库事务。

处理事务性消息

服务通常需要在更新数据库的事务中发布消息&＃xff0c;数据库更新和消息发送都必须在事务中进行&＃xff0c;否则服务可能会更新数据库然后在发送消息之前崩溃。

如果服务不以原子方式执行者两个操作&＃xff0c;则类似的故障可能使系统处于不一致状态。

接下来我们看一下常用的保证事务消息的两种解决方案&＃xff0c;最后再看看现代消息组件RocketMQ的事务性消息解决方案。

使用数据库表作为消息队列

如果你的应用程序正在使用关系型数据库&＃xff0c;要保证数据的更新和消息发送之间的事务可以直接使用事务性发件箱模式&＃xff0c;Transactional Outbox。

此模式使用数据库表作为临时消息队列。如上图所示&＃xff0c;发送消息的服务有个OUTBOX数据表&＃xff0c;在进行INSERT、UPDATE、DELETE 业务操作时也会给OUTBOX数据表INSERT一条消息记录&＃xff0c;这样可以保证原子性&＃xff0c;因为这是基于本地的ACID事务。

OUTBOX表充当临时消息队列&＃xff0c;然后我们在引入一个消息中继&＃xff08;MessageRelay&＃xff09;的服务&＃xff0c;由他从OUTBOX表中读取数据并发布消息到消息组件。

消息中继的实现可以很简单&＃xff0c;只需要通过定时任务定期从OUTBOX表中拉取最新未发布的数据&＃xff0c;获取到数据后将数据发送给消息组件&＃xff0c;最后将完成发送的消息从OUTBOX表中删除即可。

使用事务日志发布事件

另外一种保证事务性消息的方式是基于数据库的事务日志&＃xff0c;也就是所谓的数据变更捕获&＃xff0c;Change Data Capture&＃xff0c;简称CDC。

一般数据库在数据发生变更的时候都会记录事务日志&＃xff08;Transaction Log&＃xff09;&＃xff0c;比如mysql的binlog。事务日志可以简单的理解成数据库本地的一个文件队列&＃xff0c;它主要记录按时间顺序发生的数据库表变更记录。

这里我们利用alibaba开源的组件canal结合MySQL来说明下这种模式的工作原理。

更多操作说明可以参考官方文档&＃xff1a;https://github.com/alibaba/canal

canal工作原理

• canal 模拟 MySQL slave 的交互协议&＃xff0c;把自己伪装成一个MySQL的 slave节点 &＃xff0c;向 MySQL master 发送dump 协议&＃xff1b;
• MySQL master 收到 dump 请求&＃xff0c;开始推送 binary log 给 slave (即 canal )&＃xff1b;
• canal 解析 binary log 对象(原始为 byte 流)&＃xff0c;然后可以将解析后的数据直接发送给消息组件。

RocketMQ事务消息解决方案

Apache RocketMQ在4.3.0版中已经支持分布式事务消息&＃xff0c;RocketMQ采用了2PC的思想来实现了提交事务消息&＃xff0c;同时增加一个补偿逻辑来处理二阶段超时或者失败的消息&＃xff0c;如下图所示。

RocketMQ实现事务消息主要分为两个阶段&＃xff1a;正常事务的发送及提交、事务信息的补偿流程。

整体流程为&＃xff1a;

• 正常事务发送与提交阶段
  1、生产者发送一个半消息给MQServer&＃xff08;半消息是指消费者暂时不能消费的消息&＃xff09;
  2、服务端响应消息写入结果&＃xff0c;半消息发送成功
  3、开始执行本地事务
  4、根据本地事务的执行状态执行Commit或者Rollback操作
• 事务信息的补偿流程
  1、如果MQServer长时间没收到本地事务的执行状态会向生产者发起一个确认回查的操作请求
  2、生产者收到确认回查请求后&＃xff0c;检查本地事务的执行状态
  3、根据检查后的结果执行Commit或者Rollback操作
  补偿阶段主要是用于解决生产者在发送Commit或者Rollback操作时发生超时或失败的情况。

在生产者使用RocketMQ发送事务消息的时候我们也会借鉴第一种方案即自建一张事务日志表&＃xff0c;然后在执行本地事务的时候同时生成一条事务日志记录&＃xff0c;让本地事务与日志事务在同一个方法中&＃xff0c;同时添加 &＃64;Transactional 注解&＃xff0c;保证两个操作事务是一个原子操作。这样如果事务日志表中有这个本地事务的信息&＃xff0c;那就代表本地事务执行成功&＃xff0c;需要Commit&＃xff0c;相反如果没有对应的事务日志&＃xff0c;则表示没执行成功&＃xff0c;需要Rollback。

孩砸&＃xff0c;看完这篇文章&＃xff0c;消息队列你能把握住了吗&＃xff1f;